在初级诊断的日常诊断中采用卷积神经网络（CNN）不仅需要接近完美的精度，而且还需要对数据采集变化和透明度的足够概括。现有的CNN模型充当黑匣子，不确保医生认为模型使用重要的诊断功能。本文以成功现有的技术（例如多任务学习，域对抗性培训和基于概念的解释性）为基础，该论文解决了在培训目标中引入诊断因素的挑战。在这里，我们表明，通过学习端到端学习多任务和对抗性损失的基于不确定性的加权组合，鼓励将重点放在病理学特征上，例如核的密度和多态性，例如。大小和外观的变化，同时丢弃诸如染色差异之类的误导性特征。我们在乳腺淋巴结组织上的结果显示，在肿瘤组织的检测中的概括显着改善，最佳平均AUC为0.89（0.01），针对基线AUC 0.86（0.005）。通过应用线性探测中间表示的可解释性技术，我们还证明了可解释的病理特征（例如核密度）是通过提出的CNN结构来学习的，从而证实了该模型的透明度的提高。该结果是构建可解释的多任务体系结构的起点，这些架构对数据异质性具有鲁棒性。我们的代码可在https://bit.ly/356yq2u上找到。
translated by 谷歌翻译
Recent advances in deep learning have enabled us to address the curse of dimensionality (COD) by solving problems in higher dimensions. A subset of such approaches of addressing the COD has led us to solving high-dimensional PDEs. This has resulted in opening doors to solving a variety of real-world problems ranging from mathematical finance to stochastic control for industrial applications. Although feasible, these deep learning methods are still constrained by training time and memory. Tackling these shortcomings, Tensor Neural Networks (TNN) demonstrate that they can provide significant parameter savings while attaining the same accuracy as compared to the classical Dense Neural Network (DNN). In addition, we also show how TNN can be trained faster than DNN for the same accuracy. Besides TNN, we also introduce Tensor Network Initializer (TNN Init), a weight initialization scheme that leads to faster convergence with smaller variance for an equivalent parameter count as compared to a DNN. We benchmark TNN and TNN Init by applying them to solve the parabolic PDE associated with the Heston model, which is widely used in financial pricing theory.
translated by 谷歌翻译
Channel charting (CC) is an unsupervised learning method allowing to locate users relative to each other without reference. From a broader perspective, it can be viewed as a way to discover a low-dimensional latent space charting the channel manifold. In this paper, this latent modeling vision is leveraged together with a recently proposed location-based beamforming (LBB) method to show that channel charting can be used for mapping channels in space or frequency. Combining CC and LBB yields a neural network resembling an autoencoder. The proposed method is empirically assessed on a channel mapping task whose objective is to predict downlink channels from uplink channels.
translated by 谷歌翻译
近年来，神经科学家一直对脑部计算机界面（BCI）设备的开发感兴趣。患有运动障碍的患者可能会受益于BCIS作为通讯手段和恢复运动功能。脑电图（EEG）是评估神经元活性的最常用之一。在许多计算机视觉应用中，深度神经网络（DNN）都具有显着优势。为了最终使用DNN，我们在这里提出了一个浅神经网络，该网络主要使用两个卷积神经网络（CNN）层，其参数相对较少，并且快速从脑电图中学习光谱时期特征。我们将该模型与其他三个神经网络模型进行了比较，其深度不同于精神算术任务，该模型使用了针对患有运动障碍的患者和视觉功能下降的患者进行的眼神闭合状态。实验结果表明，浅CNN模型的表现优于所有其他模型，并达到了90.68％的最高分类精度。处理跨主题分类问题也更加健壮：准确性的标准偏差仅为3％，而不是传统方法的15.6％。
translated by 谷歌翻译
自主机时代的一个主要技术挑战是自动驾驶机器的编程，它要求跨多个领域的协同作用，包括基本的计算机科学，计算机架构和机器人技术，并且需要学术界和行业的专业知识。本文讨论了与生产现实生活自动驾驶机器相关的编程理论和实践，并在特定功能要求，性能期望和自主机的实施约束的背景下涵盖了从高级概念到低级代码生成的各个方面。
translated by 谷歌翻译
地震波的频域模拟在地震反演中起着重要作用，但在大型模型中仍然具有挑战性。作为有效的深度学习方法，最近提出的物理知识的神经网络（PINN）在解决广泛的偏微分方程（PDES）方面取得了成功的应用，并且在这方面仍然有改进的余地。例如，当PDE系数不平滑并描述结构复合介质时，PINN可能导致溶液不准确。在本文中，我们通过使用PINN而不是波方程来求解频域中的声学和Visco声学散射的场波方程，以消除源奇异性。我们首先说明，当在损失函数中未实现边界条件时，非平滑速度模型导致波场不准确。然后，我们在PINN的损耗函数中添加了完美匹配的层（PML）条件，并设计了二次神经网络，以克服PINN中非平滑模型的有害影响。我们表明，PML和二次神经元改善了结果和衰减，并讨论了这种改进的原因。我们还说明，在波场模拟中训练的网络可用于预先训练PDE-Coeff及时改变后另一个波场模拟的神经网络，并相应地提高收敛速度。当两次连续迭代或两个连续的实验之间的模型扰动时，这种预训练策略应在迭代全波形反转（FWI）和时置目标成像中找到应用。
translated by 谷歌翻译
基于得分的生成模型（SGM）通过运行时间转移的随机微分方程（SDE）从高斯白噪声中合成新数据样本，其漂移系数取决于某些概率分数。此类SDE的离散化通常需要大量的时间步骤，因此需要高计算成本。这是因为我们通过数学分析的分数的不良条件特性。我们表明，通过将数据分布分配到跨尺度的小波系数的条件概率的产物中，可以将SGMS大大加速。最终的小波得分生成模型（WSGM）在所有尺度上都以相同的时间步长合成小波系数，因此其时间复杂性随着图像大小而线性增长。这在数学上是在高斯分布上证明的，并在相变和自然图像数据集中的物理过程上以数值显示。
translated by 谷歌翻译
部分微分方程（PDE）用于对科学和工程中的各种动力系统进行建模。深度学习的最新进展使我们能够以新的方式解决维度的诅咒，从而在更高的维度中解决它们。但是，深度学习方法受到训练时间和记忆的约束。为了解决这些缺点，我们实施了张量神经网络（TNN），这是一种量子启发的神经网络体系结构，利用张量网络的想法来改进深度学习方法。我们证明，与经典密集神经网络（DNN）相比，TNN提供了明显的参数节省，同时获得了与经典密集的神经网络相同的准确性。此外，我们还展示了如何以相同的精度来比DNN更快地训练TNN。我们通过将它们应用于求解抛物线PDE，特别是Black-Scholes-Barenblatt方程，该方程广泛用于金融定价理论，基于基准测试。还讨论了进一步的例子，例如汉密尔顿 - 雅各比 - 贝尔曼方程。
translated by 谷歌翻译
基于模型的强化学习和控制已经在各种顺序决策问题领域（包括机器人设置）中表现出巨大的潜力。但是，现实世界中的机器人系统通常会提出限制这些方法的适用性的挑战。特别是，我们注意到在许多工业系统中共同发生的两个问题：1）不规则/异步观察和动作以及2）环境动力学从发作到另一个事件的急剧变化（例如，有效载荷有效惯用属性不同）。我们提出了一个通用框架，该框架通过元学习自适应动力学模型来克服这些困难，以进行连续的时间预测和控制。我们在模拟工业机器人上评估了建议的方法。在此预印的将来迭代中，将添加对实际机器人系统的评估。
translated by 谷歌翻译
尽管当前的交互式视频对象细分方法（IVO）依靠基于涂鸦的交互来生成精确的对象掩码，但我们提出了一个基于点击的交互式视频对象细分（CIVOS）框架，以尽可能简化所需的用户工作负载。 CIVOS建立在反映用户互动和掩盖传播的DE耦合模块的基础上。交互模块将基于点击的交互转换为对象掩码，然后通过传播模块推断为其余帧。其他用户交互允许对象蒙版进行改进。该方法对流行的交互式〜戴维斯数据集进行了广泛的评估，但不可避免地适应了基于点击的基于点击的相互作用。我们考虑了在评估过程中生成点击的几种策略，以反映各种用户输入，并调整戴维斯性能指标以执行与硬件无关的比较。提出的CIVOS管道取得了竞争成果，尽管需要较低的用户工作量。
translated by 谷歌翻译